一份最新報告揭露，儘管蘋果與谷歌設有家長控制，美國青少年仍可透過應用程式下載「nudify」軟體，這些軟體利用AI技術製作非自願性的裸露影像，且常因開發者誤標年齡分級而規避家長監管，引發嚴重的網路安全與隱私問題。
數位倡議團體 Tech Transparency Project（TTP）最新一份報告指出，儘管蘋果（Apple）和谷歌（Google）已設有家長控制機制，美國青少年仍能輕易存取多款能生成非自願性情色或裸照影像的「nudify」應用程式。這類應用程式通常利用人工智慧（AI）技術，能將照片或影片中的人物衣服移除，或將人臉替換到裸體影像上，引發校園與家庭的擔憂。
根據《衛報》昨日（19日）報導，美國各地高中頻傳學生利用這類應用程式，製作同學的非自願性裸照事件。一名賓夕法尼亞州的學生家長表示，女兒的影像遭人利用 AI 應用程式製作成不雅圖片，讓校內女生感到相當恐懼與困惑。她提到，過去曾聽過「深偽（deepfake）」技術應用於名人，卻沒想到能用任何人的照片或截圖來製作。
TTP 研究人員為測試應用程式的可近性，創建了多個註冊年齡為 13 歲的測試帳號，並搜尋「AI 影片產生器」或「成人 AI」等關鍵詞後，成功下載了 135 款應用程式。這些應用程式具有脫衣或換臉功能，能將人臉合成到裸露的身體上。報告強調，測試過程中研究人員僅使用 AI 生成的女性圖像進行實驗，並未使用真實女性照片。
儘管蘋果商城（App Store）與谷歌應用商店都設有家長控制機制，旨在限制未成年人接觸不適當內容，但報告指出，許多被查出的「nudify」應用程式都被開發者錯誤標示為適合未成年人，導致家長控制形同虛設。例如，一款臉部交換應用程式，其廣告圖示呈現女性進行口交的畫面，竟被評級為適合四歲以上用戶。研究人員甚至能從一個 13 歲的帳號訂閱該應用程式，且家長綁定的帳號未收到任何通知。
細項數據顯示，即使啟用了家長控制，蘋果帳號仍能下載 24 款適合 13 歲兒童的「nudify」應用程式，而谷歌帳號則可下載 51 款。在 TTP 進行研究的過程中，蘋果下架了 25 款相關應用程式，谷歌也下架了 6 款。然而，報告指出，一旦應用程式已被下載，即使從商店下架，其功能仍可正常使用。
對此，谷歌表示他們會定期採取預防措施，偵測並下架含有有害內容的應用程式，並已暫停違規應用程式及限制相關搜尋詞彙。蘋果發言人則稱，公司禁止在蘋果商城上架「nudify」應用程式，並會移除在審查後以「誘騙式上架（bait-and-switch）」手法添加此類功能的開發者。蘋果在收到 TTP 通知後，也已強化了內容審核準則，要求開發者主動阻止並移除非自願性私密影像。全球多國政府已著手禁止這類 AI 平台，美國多州也已立法將持有 AI 生成的兒童性虐待素材列為刑事犯罪，但追究非自願性影像創作的責任仍是嚴峻挑戰。